其他
「ChatGPT之母」:她35岁,OpenAI神秘CTO
Murati和OpenAI的AGI之旅,才刚刚开始。
作者 | 椎名编辑 | 梓首图来源:SFGATE
首先,专业的机械工程理工思维训练,为她成为一名技术领袖奠定了基础。
从达特茅斯完成专业的理工科训练之后,Murati 开始在高盛实习,担任暑期分析师。随后,她进入到和她的所学专业更为契合的法国航空航天公司Zodiac Aerospace,担任高级概念工程师。
一段商业经验,一段工程经验,进一步帮她撬开了一个新坐标的大门,这也是她日后加入OpenAI最重要的一次机会——加入特斯拉担任高级产品经理,负责其“Model X”汽车。
这个机会,开启了她与人工智能的第一段亲密接触。
她在特斯拉度过了2013年~2016年近三年的时光。这三年也是特斯拉Model X初问世的三年。Model X最初于2012年首次亮相,但实际的生产和销售始于2015年9月。期间经历了许多变化,从最初的概念车到实际的生产和销售车型,它不断地提高了性能和功能,并成为了特斯拉公司的重要车型之一。
而Model X正是特斯拉旗下第一款具备自动驾驶功能的车型之一。从2015年末开始,特斯拉开始向Model X车主推出Autopilot自动驾驶功能。
虽然其中有多少工作是Murati 直接相关的,我们不得而知,但是,与Model X这样划时代的产品共成长,对于一位技术工作者来说想必是不可多得的机会。2016年离开特斯拉时,Mira是Model X的高级产品经理。此时,Murati踏入到一家更具有黑科技色彩的公司——Leap Motion,担任产品和工程副总裁。也正是这段经历,进一步强化了她的产品化能力。
在Leap Motion的2年时光,也是她在加入OpenAI之前的最后一段工作经历。
作为一家软件和硬件公司,Leap Motion当时正在致力于开发一种虚拟现实系统,打算用手势来代替键盘与鼠标。Murati和她的团队希望提供更直接可靠的与计算机交互的体验。但她很快意识到,这项依赖 VR 头显的技术还为时过早。
于是,2018 年,她选择加入 OpenAI ,在那里,投入到一场更彻底、更接近未来、也更有影响力的浪潮之中:通用人工智能 AGI 。
首先是使命之远大和团队起点之高。
由 Elon Musk、Sam Altman、Greg Brockman、Wojciech Zaremba、Ilya Sutskever 和 John Schulman 作为创始团队,OpenAI 于 2015 年在旧金山问世,并将自己定位为研究通用人工智能的研究型机构。
OpenAI的任务简单但又雄心勃勃,开发安全和开放的通用型 AI 工具来增强(而不是消灭)人们的能力,最初是为视频游戏和其他应用程序开发人工智能。2016 年,发布了第一个工具OpenAI Gym用于研究强化学习,随后发布Universe软件平台,利用游戏、网站和其他应用评估和训练通用智能AI。
在随后的两年里,OpenAI专注于更通用的 AI 研发。此时,公司继续面临着来自行业巨头的竞争压力,而且越来越多的人工智能公司涌现出来。OpenAI 意识到,自己需要在人工智能领域的技术上取得进一步的突破,才能与其他公司竞争。
更有意思的是,转型之后,这支集结了顶尖学术人才的队伍,集中精力尝试开发开创性的商业产品。Murati大量的技术产品化经验,同样与此不谋而合。
在具体的技术实现上,2021 年,OpenAI团队聘请了ML 研究员Jan Leike,他现在领导他们的对齐团队,更加强调结合人类反馈 ( RLHF ) 的AI强化学习。这一点对ChatGPT本身进一步提高与人类的交互能力、对信息含义的理解能力以及自我判断能力来说至关重要,因为这项技术加入了更多人工监督进行微调。因此,ChatGPT可以更加逼近人类语言的自然反应。
Murati 一直与 Leike 密切合作,这一点在 Twitter 上尤其明显,他们曾仔细讨论了在训练 AI 模型期间纳入反馈的重要性。
在此前与CogX的一次讨论中,她解释说,“我们希望这些模型遵循我们的明确指示,但我们也希望它们遵循我们隐含的指示,因此我们不希望它们产生任何刻板印象或产生有害反应。我们希望它们主要与我们的意思或想要的内容保持一致,但这可能非常模糊。为了实现这一目标,我们需要模型循环中的人工反馈,以使意图更加清晰。”
这类人类反馈具体的实现策略,就是与不同行业的合作伙伴合作,这种合作帮助OpenAI扩展到医疗保健、交通和金融等新领域。此外,大量真实世界的客户数据都可以用来训练其 AI 模型。
至少从目前来看,这个策略是十分成功的。2022 年 5 月,她成功晋升为首席技术官。
她的大部分工作依然是坐在电脑面前思考代码。但随着围绕生成式 AI 工具的炒作越来越多以及OpenAI的火爆,Murati 最近开始更多地出现在公众视野中。
Murati 的说法是, OpenAI的AI是“人类助手”,并表示它们将成为“社会塑造它们的方式”。
OpenAI总是坦率地承认他们的工具能做什么或不能做什么,Murati 也清晰地遵从着这一点。然而,她也承认,其中一些问题,比如AGI对人类的确切影响,现在可能太大了,甚至太开放了,无法回答。
👇👇👇